گوگل چالش‌های اخلاقی و اجتماعی گوگل دوپلکس را برطرف می‌کند

نسخه آزمایشی گوگل دوپلکس در کنفرانس توسعه دهندگان گوگل I/O معرفی شد. این فناوری مبتنی بر هوش مصنوعی قادر است بسیار شبیه به انسان‌ها صحبت کند تا جایی که برخی معتقدند می‌توان برای گوگل دوپلکس هویت انسانی قایل شد.

از زمانی که گوگل، نسخه آزمایشی  گوگل دوپلکس مبتنی بر هوش مصنوعی را معرفی کرد،‌ حرف و حدیث‌های بسیاری در مورد این فناوری جدید مطرح شد. این فناوری جدید گوگل می‌تواند به‌راحتی شبیه انسان‌ها صحبت کند و اگر کسی پشت خط تلفن با این ربات مبتنی بر هوش مصنوعی مکالمه کند،‌ شاید اصلا متوجه نشود در طرف دیگر خط تلفن یک ربات در حال گفتگو است که همین مسئله می‌تواند چالش‌های اخلاقی و اجتماعی بیشماری به دنبال داشته باشد. 


از نظر کارشناسانی که این مسئله را مطرح می‌کردند،‌ درست نیست یک انسان با یک ربات صحبت کند ولی اطلاع نداشته باشد که در حال مکالمه با ربات است. گوگل هم خیلی زود دست به کار شد تا وضعیت گوگل دوپلکس را شفاف‌تر کند. گوگل در بیانیه‌ای اعلام کرد که این ربات مبتنی بر هوش مصنوعی،‌ به همراه یک سیستم آشکارساز درونی تکمیل و تجهیز خواهد شد. در این صورت،‌ وقتی شخصی می‌خواهد با ربات صحبت کند،‌ اول به وی اطلاع داده می‌شود که در حال مکالمه با یک ربات است و بعد مکالمه ادامه پیدا می‌کند. گوگل دوپلکس به گونه‌ای طراحی شده است که جملات را درست و محاوره‌ای ادا کند و حتی مکث‌های لازم در حین مکالمه این ربات،‌ کاملا شبیه به انسان‌ها طراحی شده ‌است. انتقاد کارشناسان فنی مربوط به همین قضیه است. آن‌ها معتقدند وقتی این ربات اینقدر شبیه به انسان‌ها صحبت می‌کند و طرف مقابل نداند در حال مکالمه با یک ربات است،‌ این وضعیت با اصول اخلاقی و اجتماعی مغایر دارد. از سوی دیگر این منتقدان اعتقاد دارند چنین فناوری می‌‌تواند پایه‌گذار مسائل مختلفی در جامعه باشد. وقتی این ربات مبتنی بر هوش مصنوعی معرفی شد،‌ حرف‌‌وحدیث بسیاری در پی داشت و کاستی‌های بسیاری در مورد مطرح شد. مثلا منتقدان می‌گویند طرف مقابل که با ربات صحبت می‌کند،‌ باید بداند در حال مکالمه با یک ربات است و گوگل برای این موضوع باید تدبیری داشته باشد.

در حال حاضر موارد استفاده از گوگل دوپلکس بسیار محدود است و ظاهرا فعلا فقط برای رزرو کردن میز در رستوران، گرفتن وقت از آرایشگاه و مشخص کردن زمان آزاد در برخی مشاغل به‌صورت آزمایشی کاربرد دارد. با اطلاعیه جدید گوگل دیگر نباید نگران مسائل و چالش‌های اخلاقی و اجتماعی مربوط به گوگل دوپلکس باشیم؛ چون قبل از شروع مکالمه با این ربات،‌ قطعا به مخاطب اطلاع داده می‌شود که در حال مکالمه با یک ربات است.

سخنگوی گوگل برای روشن شدن این مسئله گفت:

در حال بحث و تبادل نظر جدی در مورد مسائل و چالش‌های گوگل دوپلکس هستیم. همانطور که قبلا گفته‌ایم، شفافیت در فناوری موضوع مهمی است. در حال طراحی سیستمی هستیم که ربات بودن گوگل دوپلکس را به مخاطب اطلاع‌رسانی کند. آنچه در کنفرانس گوگل I/O به نمایش گذاشته شد تنها نسخه آزمایشی این فناوری بود. تمامی بازخوردها در مورد این فناوری و سایر فناوری‌ها به ما کمک می‌کند تا محصولی با توجه به نیاز و کاربرد مخاطبان‌مان طراحی کنیم.

بی‌شک گوگل دوپلکس در مراحل اولیه طرح و توسعه خود قرار دارد و در حال حاضر هنوز محصولی کارآمد و نهایی نیست. زمانی که ساندار پیچای، مدیر عامل گوگل، در کنفرانس توسعه دهندگان گوگل I/O این فناوری جدید را معرفی کرد،‌ تنها نسخه آزمایشی به نمایش گذاشته شد و در دموی نمایش داده‌شده،‌ یک تماس تلفنی از پیش ضبط‎شده برای نشان دادن کارایی گوگل دوپلکس به حضار نشان داده شد. البته، این نسخه اولیه نشان داد چگونه گوگل اسیستنتمی‌تواند با کمک تکنولوژی نسل جدید WaveNet DeepMind و سایر پیشرفت‌های مربوط به پردازش زبان،‌ ارتباطی واقعی‌تر و زنده‌تر با کاربر بگیرد. وقتی گوگل دوپلکس صحبت می‌کند،‌ به‌صورت باورناپذیری بسیار شبیه به یک انسان حرف می‌زند و عبارت‌ها و جملات را به‌صورت کاملا محاوره‌ای ادا می‌کند.


نسخه آزمایشی گوگل دوپلکس، نمایشی ترسناک و مخوف از فناوری‌های نوین به نمایش گذاشت که باید از آن ترسید. این محصول به‌راحتی می‌تواند انسان‌ها را فریب دهد و خود را در قالب انسان جا بزند و شاید دست به هر کار دیگری هم بزند. اگر این محصول بدین صورت وارد بازار شود،‌ باید بگوییم اصول اخلاقی و اجتماعی در سیلیکون ولی زیر پا گذاشته خواهد شد و این محصول مدرک از دست رفتن اخلاقیات در سیلیکون ولی خواهد بود. همین مسئله و شباهت بیش از حد گفتار و بیان گوگل دوپلکس به انسان‌ها،‌ از نظر برخی کارشناسان می‌تواند منجر به فریب انسان‌ها شود و اگر نظارت درستی روی آن وجود نداشته باشد،‌ باید از این فناوری به‌شدت ترسید و نگران آینده آن بود. اگر این فناوری بدون نظارت دقیق و با حدود مشخص‌شده‌ای به بازار عرضه شود،‌ می‌تواند بسیار ترسناک باشد و چالش‌های بسیاری با خود به همراه داشته باشد. یکی از منتقدان حوزه فناوری معتقد است:

گوگل نیز در پست وبلاگ خود نوشت:

در حوزه فناوری توجه به کاربران و کسب و کاری که دارند برای ما در اولویت اول قرار دارد. شفافیت در هر محصولی جزو استراتژی‌های مهم ما است. گوگل دوپلکس در مرحله آزمایش است و بی‌شک ما به حوزه کسب و کار و نقض قوانین اخلاقی و اجتماعی توجه داریم.

البته باید بگوییم گوگل در زمان معرفی گوگل دوپلکس در کنفرانس توسعه‌دهندگان گوگل I/O هیچ اشاره‌ای به این مباحث نکرد و در مورد اینکه این ربات به سیستم آشکارساز برای هویتش مجهز می‌شود هم اطلاع‌رسانی نداشت. بهتر بود در زمان معرفی نسخه آزمایشی، گوگل به این موضوع توجه می‌کرد و در همان زمان اعلام می‌کرد که به این نکات توجه دارد. به هر حال بازار سوءاستفاده از فناوری همیشه وجود داشته و ممکن است از این ربات برای خواندن هرزنامه‌ها استفاده شود یا در حوزه‌های غیر اخلاقی یا امنیتی از آن سوءاستفاده‌هایی شود که باید حتما مورد توجه قرار گیرد.

ظاهرا با توجه به اینکه گوگل با انبوهی از نظرات چالشی در مورد مسائل اخلاقی و اجتماعی گوگل دوپلکس مواجه شده است،‌ باید منتظر باشیم مکانیزم شفاف‌سازی این فناوری جدید به‌عنوان موضوعی مهم از سوی این شرکت مورد توجه قرار گیرد؛ هر چند اطلاعیه‌های جدید مؤید این موضوع مهم هستند.





تاريخ : شنبه 22 ارديبهشت 1397برچسب:, | | نویسنده : مقدم |